2019年2月12日，美国防部发布《2018国防部人工智能战略概要：利用人工智能促进安全与繁荣》（以下简称《战略概要》），系统阐述了五角大楼对于人工智能的官方认知、战略部署及重点领域，这也标志着美军正式出台人工智能这一新兴领域的军事战略，是美国推进人工智能军事化的里程碑式事件，一定程度上将指引美军在人工智能领域的未来发展方向，值得高度关注。
当前，新一轮人工智能发展浪潮汹涌而来，正在迅速改变社会经济，有望成为第四次工业革命的核心技术，改变未来战争形态，影响军事训练、指挥控制、作战规划、医疗等军队各领域。与此同时，人工智能也成为了大国战略竞争的焦点。普京曾毫不讳言地表示，谁在人工智能领域取得主导地位，谁就将统治世界。美国也认识到了人工智能技术的战略重要性，该战略报告指出，以中国和俄罗斯为代表的世界大国在人工智能军事应用领域进行了大量投资，威胁到了美国作战优势地位，给自由开放的国际秩序带来了不稳定因素，挑战了美国在人权和个人自由方面的价值观和传统。如果不能有效实施人工智能战略，将产生严重后果，包括装备过时、侵蚀盟友和伙伴之间的凝聚力、减少进入市场的机会、自由受损等。正是在这样的时代背景下，美军出台了人工智能战略，旨在利用人工智能提升美国的安全与繁荣，维持美军在人工智能领域的优势地位，可谓雄心勃勃。具体而言，美国防部希望通过运用人工智能来达成以下四个目标。一是支持和保护美国军人和世界各地的平民。二是保护美国及其公民。三是推动创建精简高效的组织形态。四是使美国防部成为将人工智能扩展国企业的先锋。为此，《战略概要》列出了五项战略举措，一是利用人工智能解决美军关键任务。二是通过支持分布式开发和试验的通用基础设施扩大人工智能在国防部的影响。三是培养人工智能领域的高级人才。四是强化与产业界、学术界和国际盟友的合作。五是引领军事伦理道德和人工智能安全。在这五项战略举措中，其中四项是该战略所关注的重点领域（除第二项外）。在利用人工智能解决关键任务这一举措中，特别强调了要利用人工智能提升美军态势感知与决策能力，提高操作设备的安全性，实施预测性维护和补给，简化业务流程；在国际合作方面，美国防部致力于加强同私营部门和学术界在人工智能领域的合作，弥合非传统创新中心与国防任务之间的鸿沟，具体包括制定以全球挑战为重点的开放任务倡议，加强学术合作并培育新的人工智能创新共同体，加强与美国产业界的合作，强化与盟国、伙伴国以及开源社区之间的合作；在人才培养方面，美国防部会为人工智能领域的优秀人才提供大展身手的机会，建立全面的人工智能培训机制，鼓励优秀人才进入国防领域，并积极培育勇于创新的文化；伦理和安全方面，美国防部将制定人工智能的国防应用原则，大力支持研发安全可靠的国防部人工智能系统，持续资助以理解和解释人工智能驱动的决策和行动的相关研究，提高人工智能研究的透明度，倡导建立全球军事人工智能准则，以及利用人工智能降低平民伤亡及其他附带损伤的风险。此外，美国防部还专门设立了“联合人工智能中心”(JAIC)，作为执行此次人工智能战略的核心单位。该机构正式成立于2018年7月，具体职能包括指导人工智能研发，推进人工智能政策制定、道德、安全、网络安全和多边协调，为扩大人工智能在国防部的影响提供数据、框架、标准等通用基础，招募和培养一个世界级的人工智能人才队伍等，可谓美军在人工智能领域专门设立的“神经中枢”。《战略概要》是美军正式出台的第一份人工智能战略，既凸显了美军对于人工智能这一技术的重视，也显现了其在战略竞争的新时代确保美军技术优势和美国全球霸权的长远战略目标，对美军未来建设、美国人工智能发展乃至国际走向可能带来重要影响。牵引美军人工智能军事化的未来走向，为各军兵种的智能化建设提供战略指导。不难预见，在未来的一段时间内，美军的各军兵种会以这份战略为基点陆续出台自身在人工智能领域的路线图，并展开一系列具体行动。如前所述，这份战略将利用人工智能解决美军关键任务、培养高级人工智能人才、强化产学研合作以及引领人工智能安全和伦理建设作为重点领域。可以预见的是，未来美军也会在这几个方面重点发力。从更广的历史背景来看，这份战略也是美军推进“第三次抵消战略”的又一力招。2014年11月15日，美国国防部发布《国防创新倡议》，正式推出第三次“抵消战略”， 聚焦以人工智能技术为核心的五大领域，希望通过人工智能赋能武器系统打造美军在上个世纪类似核武器与精确制导武器的压倒性技术优势优势，对它国的军事力量实施精准对冲，维持美军在21世纪的领先地位。不难预见，美军在此领域的投入会越来越重，此次出台人工智能领域的专门战略将进一步促进人工智能在美军的研发和应用，继续推进“第三次抵消战略”。为美国引领国际人工智能安全伦理标准制定铺路。美国一向注重抢抓国际规则制定先机，例如推动《塔林手册》的编订就在网络空间国际规则制定领域下了“先手棋”。此次《战略概要》除了十分强调推动人工智能的发展，还特别注重管控人工智能的安全和伦理问题，倡导建立全球军事人工智能准则，希望引领全球人工智能安全伦理准则的制定。目前，围绕人工智能伦理标准的制定国际上已经有很多动作。例如，2016年12月，电气与电子工程师协会(IEEE)发布了由全球100多名人工智能、伦理学及相关领域专家共同制定的《合乎伦理的设计：将人类福祉与人工智能和自主系统优先考虑的愿景》报告，旨在推动人工智能的伦理规范。2017年1月，人类未来研究所在波多黎各举办的“向善的通用人工智能”国际研讨会上发布《阿西洛马人工智能原则》，明确人工智能领域需要遵守价值耦合、安全可靠、共享繁荣等23条原则，获得来自1273名科学家签署和支持。2018年12月，欧盟委员会发布了由人工智能高级专家组编写的的《人工智能道德准则》草案，强调人工智能的发展方向应该是“可信赖的人工智能”，要确保这一技术的使用安全可靠、合乎道德，从而最大程度地降低风险、造福人类。美国防部此次将伦理标准制定作为重点领域之一，并将“联合人工智能中心”作为核心机构，既有确保美军安全性、为人工智能军事化扫清障碍的考虑，也不乏想在这个领域抢占国际规则制定权的考量。刺激世界各国尤其是大国间的“人工智能军备竞赛”愈演愈烈。当前，世界各国尤其是中美俄三个大国都将人工智能视为提升未来军力和国力的关键技术，正在人工智能军事化领域抢滩登陆。目前，美国国防部高级研究计划局已推出了“终身机器学习”、“指挥官虚拟参谋”、“可解释的人工智能”等多个与人工智能相关的研发项目。美国最新递交国会的《2020财年国防预算申请》也在人工智能、无人武器系统等高端作战技术领域进行了重点布局，预计拨付46亿美元资金，主要用于联合人工智能中心的运营和高级图像识别项目，以及通过开发具有攻击性的无人水面舰艇、无人潜航器和军事后勤平台，增强在对抗环境中的机动和杀伤力。中国《新一代人工智能发展规划》也强调“促进人工智能技术军民双向转化，强化新一代人工智能技术对指挥决策、军事推演、国防装备等的有力支撑，推动各类人工智能技术快速嵌入国防创新领域。”俄罗斯军事工业委员会计划在2025年之前实现俄军装备30%的机器人化。当前的人工智能竞赛受到来自科技发展趋势、军事诱惑、企业逐利等多种力量推动。不难预见，美军在此时出台人工智能战略，无异于给日趋白热化的人工智能大国博弈再添一把烈火，会刺激中俄等国加快人工智能的研发和军事应用，在近期内也可能出台相应的人工智能军事战略。这一军备竞赛的趋势如不加以有效控制，可能会带来十分危险的后果，甚至威胁国际战略稳定（例如将人工智能运用到核武器领域）。尽管美军的人工智能发展战略倡议充满雄心，触及了人工智能发展中的一些关键领域，但依然面临着诸多障碍与挑战，真正实施起来并非易事。从国内来看，目前以硅谷为代表的美国科技公司与国防部之间存在着紧张的关系。最为突出的一个例子就是谷歌公司员工联名反对继续参与美军的Maven项目（该项目致力于将人工智能用于军事情报分析）。据报道，2018年3月，由于担心人工智能技术被用于战争目的和可能侵犯用户隐私，有悖于公司“不作恶”（Don’t Be Evil）的价值观，谷歌公司3100多名员工联名致信谷歌现任CEO桑达尔·皮查伊，要求立即终止参与Maven项目，并声明永不开发战争技术。4月，逾百名学者和科学家再次上书，要求谷歌承诺既不参与也不支持自主武器的开发、制造、贸易或使用。无独有偶，今年2月，数十名微软员工也签署联名信，抗议公司与美国陆军签署4.8亿美元的合同，反对公司为军方提供增强现实技术支持，并要求立刻停止发展任何武器技术。这显示出美国部分科技公司与国防部之间存在着很大的理念差异与矛盾。尽管也有不少学者呼吁美国私企加深与国防部在人工智能领域的合作，但收效甚微。一些企业秉持着不研发战争技术的理念以及担心知识产权风险、影响海外业务拓展等因素，与军方的合作意愿并不强烈。目前来看，这种理念差异与担忧短时间内难以调和，将会对未来美军与硅谷之间的合作形成长期掣肘，也给美国防部实施人工智能战略带来障碍。此外，人工智能的军事应用也很可能会对军队的现有岗位造成冲击，一些美军体制内的保守主义势力对此也会存在一定抵触心理。
美国的科技人才流失问题也在日益显现。人才是科技创新的根本，也是推进国防部人工智能战略的关键所在。很长时间以来，美国拥有世界上最为优越的教育资源，使其能够从世界各地吸引最优秀的人才，带来源源不断的科技创新活力。此次《战略概要》也将人才培养和引进放在突出位置，但如今美国在人才优势领域面临的挑战正日益突出。2018年8月，美国《波士顿环球报》刊文指出，中美之间围绕争夺一流科学家的战役正在酝酿。中国正做出精明和重大决策提升科技地位，使中国日益成为科学家最具吸引力的移民国度，越来越多的美国年轻科学家正在“逃往”中国创立实验室，越来越多的理论突破和科技创新将出现在中国，美国的人才优势将承受巨大挑战。此外，特朗普现有的移民政策不利于美国吸纳和留住其他国家的人工智能人才。最新数据表明，美国国务院根据特朗普的旅行禁令在2018年拒绝了近4万份签证申请，这也深刻影响到了赴美的留学生、外国技术工人，使其逐渐将目标转向加拿大。这表明，美国要实施这一国防部人工智能战略，在人才领域也面临着挑战。此外，国际舆论方面，对于美军推进人工智能战略也存在一定限制。当前，世界上围绕致命性自主武器系统（LAWS）的讨论已经形成了一股不容小觑的舆论浪潮。“禁止杀手机器人运动”官网的统计显示，截至2019年2月，已有包括巴西、奥地利在内的28个国家明确表示支持禁止完全自主武器。尤其是联合国《特定常规武器公约》会谈机制在推动致命性自主武器系统军控上发挥了重要作用，围绕此议题召开了多次非正式会议和政府专家组会议，并形成了多份报告。尽管《战略概要》明确声称美军在推进人工智能军事化的过程中会遵循战争法，负责任地使用人工智能技术。但是推进人工智能军事化，就不可避免地会涉及自主武器的研发应用，这很可能会受到国际和美国国内舆论的谴责和压力，难免也会对美军推进人工智能军事化建设造成一定掣肘。
THE END
文字 | 作者：龙坤（国防科技大学文理学院）、朱启超 (国防科技大学前沿交叉科学院)
图片 | 来源于网络
编辑 | Q